AI大模型多轮对话的五个挑战与应对方法
挑战一，上下文理解：随着对话轮次的增加，模型需要处理的上下文信息越来越多，这可能导致信息遗忘或混淆。此外，模型的上下文窗口大小有限，可能无法容纳整个对话历史。
llm
从本地部署到企业级服务：十种主流LLM推理框架的技术介绍与对比
大语言模型（Large Language Models, LLMs）的部署是一项具有技术挑战性的工作。随着模型架构日益复杂，以及硬件需求不断提升，部署过程变得愈发复杂。业界已经发展出多种解决方案，使LLM的部署和扩展变得更加便捷。从适用于个人开发的轻量级本地部
使用SLM和本地LLM进行编码：技巧与建议
于是出现了本地语言模型及其小型等效物，例如小型语言模型。开发者社区越来越关注它们的好处，所以让我们看看究竟是怎么回事。除了概念本身，我们还将介绍最佳模型、它们的好处以及这如何影响整体的 AI 辅助开发。
LLM RAG面试问题大全!
RAG在通用人工智能、数据科学和人工智能的发展领域中起到了变革性的作用。RAG模型让机器能够基于事实产生更准确、连贯和一致的语言，它改变了人类与技术的互动方式。RAG让能够撰写独特内容、引人入胜的产品描述和新闻文章的机器人概念成为现实。尽管RAG的重要性日益增
LeCun与奥特曼达成共识：承认AGI 5到10年降临，但LLM注定死路一条
就在刚刚，LeCun一反常态地表示：AGI离我们只有5到10年了！这个说法，跟之前的「永远差着10到20年」大相径庭。当然，他还是把LLM打为死路，坚信自己的JEPA路线。至此，各位大佬们的口径是对齐了，有眼力见儿的投资人该继续投钱了。
生成式EDA领域发展为何缓慢？
两年前，由大语言模型（LLM）引领的生成式人工智能技术风暴席卷全球，迅速渗透到我们的日常生活。对此，有人欣然接受，有人持保留意见，更有极端声音对机器智能的崛起发出可怕预警。相比之下，半导体行业——作为人工智能发展的基石，对这项新兴技术的采纳态度显得尤为审慎。
大型语言模型与知识图谱协同研究综述：两大技术优势互补
今天我们将介绍一篇综述 LLM 与知识图谱联合相关研究的论文，其中既包含用知识图谱增强 LLM 的研究进展，也有用 LLM 增强知识图谱的研究成果，还有 LLM 与知识图谱协同的最近成果。文中概括性的框架展示非常方便读者参考。
LLM破局泛化诊断难题，MSSP刊登北航PHM实验室健康管理大模型研究
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz
LLM应用开发者新利好：再也不用写集成代码了！
比如，光定制代码就能把你搞到没脾气。大家也许不知道，LLM 应用要访问外部数据，开发者就得写一堆定制的代码，又麻烦又重复，简直是噩梦！每个新的数据源都需要自定义的实现，这使得构建真正互联的AI系统难以扩展。
算力不足限制AI创新学者呼吁加强学术界算力支持
具体而言，学术研究者往往没有资源获取足够强大的图形处理器（GPU）——这些电脑芯片常用于训练AI模型，且价格昂贵，可达数千美元。相比之下，大型科技公司的研究者预算更高，可以在GPU上投入更多资金。“每增加一块GPU，就能提升更多算力。”美国布朗大学计算机科学家
标记化在LLM中有怎样的重要作用？
如今，GPT-3、GPT-4或谷歌的BERT等大型语言模型(LLM)已经成为人工智能理解和处理人类语言的重要组成部分。但在这些模型展现出令人印象深刻的能力背后，却隐藏着一个很容易被忽视的过程：标记化。本文将解释标记化的定义，标记化如此重要的原因，以及在实际应用
跨模态大升级！少量数据高效微调，LLM教会CLIP玩转复杂文本
在当今多模态领域，CLIP 模型凭借其卓越的视觉与文本对齐能力，推动了视觉基础模型的发展。CLIP 通过对大规模图文对的对比学习，将视觉与语言信号嵌入到同一特征空间中，受到了广泛应用。
苹果计划2026年推出“LLM Siri” 我们离“贾维斯”还有多远
苹果希望通过使用类似于Chat-GPT等AI竞争对手的“先进大语言模型”让Siri更具对话性、更智能，但这一举措要到2026年才能准备就绪。
首个可保留情感的音频LLM！Meta重磅开源，音频+文本多模态任务
Meta最近开源了一个7B尺寸的Spirit LM的多模态语言模型，能够理解和生成语音及文本，可以非常自然地在两种模式间转换，不仅能处理基本的语音转文本和文本转语音任务，还能捕捉和再现语音中的情感和风格。
微调大型语言模型（LLM）的五个技巧
大型语言模型（LLM）配备了处理广泛任务的通用能力，包括文本生成、翻译、提取摘要和回答问题。尽管LLM的性能表现非常强大，但它们在特定的任务导向型问题或特定领域（例如医学和法律等）上仍然效果不佳。
提示工程简明教程
大型语言模型 (LLM) 本质上是一个预测引擎。它将顺序文本作为输入，然后根据训练数据预测下一个标记应该是什么。当模型生成更长的响应时，此预测过程会重复进行，将之前预测的标记添加到每个后续预测的输入中。
LLM大模型部署指南：要点、技巧与方法！
“某种程度上是这样。”因为提到 LLM，大多数人只会想到 OpenAI，调用 API 确实简单。她为什么要谈这些内容？调用 API 谁不会？但实际上，访问 LLM 的方式不止一种。可用托管的API如 OpenAI、Cohere、Anthropic 和 AI21
为什么大语言模型没能“杀死”心理学？
自2022年底以来，ChatGPT如一股澎湃的春潮，席卷了全球，人们对其潜在的应用场景无不心生向往。商界人士、学者乃至日常生活中的普通人，都在思索同一个问题：自己的工作未来会如何被AI塑造？
美欲发起人工智能联盟，中国早有准备，到底有多少底牌？
就在当前中美科技竞争愈发激烈的时候，OpenAI忽然甩出了一枚重磅炸弹！最近，OpenAI呼吁要建立一个“北美人工智能联盟”，共同研发新技术，提高资源共享效率，形成更强的集体竞争力。当然，最终的目的还是“重振美国梦”！
现在的LLM框架就像是之前的ORM框架？
LLM（Large Language Models）框架是一种基于深度学习的大型语言模型，它能理解、生成、翻译文本并执行语言相关的各种任务。这些模型，如GPT和BERT，通过在海量文本数据上进行训练，能够捕捉语言的细微差别（nuances）并应用于各种场景。